AI чатботът на Мъск е изправен пред глобална реакция заради сексуализирани изображения на жени и деца

ЛОНДОН (AP) — AI чатботът на Илон Мъск Grok е изправен пред ответна реакция от страна на държавните управления по света след скорошен скок на сексуализирани изображения на дами и деца, генерирани без единодушие от инструмента, задвижван от изкуствен интелект.

Във вторник висшият английски софтуерен чиновник изиска платформата за обществени медии X на Мъск да предприеме незабавни дейности, до момента в който полски законодател го цитира като причина за въвеждане на закони за цифрова сигурност.

Изпълнителният орган на Европейския съюз осъди Grok, до момента в който длъжностни лица и регулатори във Франция, Индия, Малайзия и Бразилия осъдиха платформата и приканиха за следствие.

Надигащата се паника от разнообразни народи сочи към кошмарния капацитет на приложенията за голота, които употребяват изкуствен интелект, с цел да генерират полово очевидни дълбоки подправени изображения.

Ето по-отблизо:

Генериране на изображения

Проблемът се появи след стартирането предходната година на Grok Imagine, AI генератор на изображения, който разрешава на потребителите да основават видеоклипове и фотоси посредством въвеждане на текстови подкани. Той включва по този начин наречения „ лют режим “, който може да генерира наличие за възрастни.

Снежна топка в края на предишния месец, когато Grok, който се хоства на X, явно стартира да дава огромен брой потребителски поръчки за смяна на изображения, оповестени от други. От вторник потребителите на Grok към момента могат да генерират изображения на дами, употребявайки поръчки като „ сложете я в транспарантни бикини “.

Проблемът се ускорява както тъй като Мъск показва своя чатбот като по-остра опция на противниците с повече защитни ограничения, по този начин и тъй като изображенията на Grok са обществено забележими и затова могат елементарно да бъдат публикувани.

Нестопанската група AI Forensics сподели в отчет, че е анализирала 20 000 изображения, генерирани от Grok сред 25 декември и 1 януари, и е открила, че 2% изобразяват човек, който наподобява на 18 или по-млад, в това число 30 млади или доста млади дами или девойки, в бикини или транспарантни облекла.

Отговор на Мъск

Компанията за изкуствен интелект на Мъск, xAI, отговори на искане за коментар с автоматизирания отговор „ Legacy Media Lies “.

Въпреки това, X не отхвърли, че притеснителното наличие, генерирано посредством Grok, съществува. И въпреки всичко той към момента твърди в обява в своя акаунт за сигурност, че подхваща дейности против нелегално наличие, в това число материали за полово принуждение над деца, „ като го отстранява, вечно стопира сметки и работи с локалните управляващи и правоприлагащите органи, в случай че е належащо “.

Платформата също по този начин повтори коментар от Мъск, който сподели: „ Всеки, който употребява Grok за основаване на нелегално наличие, ще понесе същите последици, както в случай че качи нелегално наличие. “

Нарастващ лист от страни упорстват Мъск да направи повече, с цел да овладее явното или злоупотребяващото наличие.

Англия

X би трябвало „ незабавно “ да се оправи с казуса, сподели министърът на технологиите Лиз Кендъл във вторник, добавяйки, че поддържа спомагателен надзор от регулатора на връзките на Обединеното кралство Ofcom.

Кендал сподели, че наличието е „ безусловно ужасяващо и недопустимо в обичайно общество “.

„ Ние не можем и няма да позволим разпространяването на тези унизителни и унизителни изображения, които са непропорционално ориентирани към дами и девойки. “

Ofcom съобщи в понеделник, че е осъществил „ незабавен контакт “ с X.

„ Ние сме наясно със сериозните опасения, повдигнати по отношение на функционалност на Grok на X, която създава разсъблечени изображения на хора и сексуализирани изображения на деца “, пазачът сподели.

Пазачът сподели, че се е свързал както с X, по този начин и с xAI, с цел да разбере какви стъпки е подхванал, с цел да се съобрази с английските разпореждания.

Съгласно Закона за онлайн сигурност на Обединеното кралство, обществените медийни платформи би трябвало да предотвратяват и отстраняват материали със полово принуждение над деца, когато схванат за това.

Полша

Полски законодател употребява Grok във вторник като причина за национално законодателство за цифрова сигурност, което ще ускори отбраната за малолетни и улесняват премахването на наличие от управляващите.

В онлайн видео Wlodzimierz Czarzasty, ръководител на Народното събрание, сподели, че желае да стане цел на Grok, с цел да подчертае казуса, както и да се обърне към президента на Полша за поддръжка на законодателството.

„ Grok в последно време съблича хората. Съблича дами, мъже и деца. Чувстваме се зле за това. Честно казано, съвсем бих желал този Grok да също ме съблечи “, сподели той.

Европейски съюз

Изпълнителната ръка на блока е „ добре наясно “, че Грок се употребява за „ очевидно полово наличие с някои резултати, генерирани с детски изображения “, сподели представителят на Европейската комисия Томас Регние

„ Това не е пикантно. Това е нелегално. Това е ужасяващо. Това е непоносимо. Така го виждаме и това няма място в Европа. Това не е първият път, когато Grok генерира такава продукция “, сподели той пред кореспонденти в понеделник.

След като Grok популяризира наличие за отказване на Холокоста предходната година, съгласно Regnier, Комисията е потърсила повече информация от обществената медийна платформа X на Мъск. Отговорът от X сега се проучва, сподели той.

Франция

Прокуратурата в Париж сподели, че уголемява настоящото следствие на X, с цел да включи полово очевиден дийпфейк, откакто чиновници получиха недоволства от законодатели.

Трима държавни министри предизвестиха прокурорите за „ очевидно нелегално наличие “, генерирано от Grok и оповестено на X, съгласно изказване на държавното управление предходната седмица.

Правителството също означи проблеми с информационния регулатор на страната по отношение на вероятни нарушавания на Закона за цифровите услуги на Европейски Съюз.

„ Интернет не е нито зона на безвластие, нито зона на безотговорност: половите закононарушения, осъществени онлайн, съставляват закононарушения сами по себе си и попадат напълно под действието на закона, тъкмо както тези, осъществени офлайн “, сподели държавното управление.

Индия

Индийското държавно управление в петък издаде ултиматум на X, настоявайки да отстрани цялото „ нелегално наличие “ и да предприеме дейности против обидните консуматори. Министерството на електрониката и осведомителните технологии на страната също подреди на компанията да прегледа „ техническата и управническа рамка “ на Grok и да подаде отчет за подхванатите дейности.

Министерството упрекна Grok в „ груба корист “ с AI и съществени пропуски на неговите защитни ограничения и правоприлагане, като е разрешил генерирането и шерването на „ неприлични изображения или видеоклипове на дами по позорен или пошъл метод, с цел да ги оклевети непристойно “.

Министерството предизвести, че неспазването на периода от 72 часа ще изложи компанията на по-големи правни проблеми, само че крайният период изтече без обществена информация от Индия.

Малайзия

Малайзийският орган за наблюдаване на връзките съобщи в събота, че проверява консуматори на X, които са нарушили законите, забраняващи разпространяването на „ мощно обидно, нецензурно или непристойно наличие “.

Малайзийската комисия по връзки и мултимедия съобщи, че също проверява онлайн вредите върху X и ще призове представител на компанията.

Пазачът сподели, че е взел под внимание публичните недоволства по отношение на инструментите за изкуствен интелект на X, употребявани за цифрово манипулиране на „ изображения на дами и малолетни за основаване на непристойно, жестоко обидно или по различен метод нездравословно наличие. “

Бразилия

Депутатът Ерика Хилтън сподели, че е докладвала Grok и X на бразилската федерална прокуратура и отбраната на данните на страната куче надзирател.

В обява в обществените медии тя упрекна и двамата в генериране, след което издание на сексуализирани изображения на дами и деца без единодушие.

Тя сподели, че AI функционалностите на X би трябвало да бъдат деактивирани, до момента в който не бъде осъществено следствие.

Хилтън, един от първите транссексуални законодатели в Бразилия, осъди по какъв начин потребителите биха могли да накарат Грок да трансформира цифрово всяка оповестена фотография, в това число „ промяна на облеклата на дами и девойки с бикини или да ги направи внушителни и еротични “. porn(asterisk)gr(asterisk)phy от изкуствен интелект, интегриран в обществена мрежа, минава всевъзможни граници “, сподели тя.

__

Авторите на AP Клаудия Чобану във Варшава, Лорн Кук в Брюксел и Джон Лестър в Париж способстваха за този отчет.